iT邦幫忙

2021 iThome 鐵人賽

DAY 4
0
AI & Data

從 Training 到 Deployment : 原來業界 AI 這樣做系列 第 4

[DAY 04]環境建置 : 硬體(2)

  • 分享至 

  • xImage
  •  

硬體選擇 -- Part 2

簡介


昨天已經提過了最重要的 GPU 了,那今天會著重在其他的零件上,像是 CPU 以及主機板的選擇條件等等。

硬體挑選


我們接續 自行採買零件自行組裝 為出發點來繼續提幾個點。

CPU


近期由於 AMD 以及 Intel 兩家正打著水深火熱的,所以每年市面上可供玩家選擇的 CPU 也是越來越猛了呢!!回想當年 Intel 在第8代 cpu 之前曾說過多核無用論等言論來否定對手 AMD 在布局主打多核的 Zen 架構處理器呢XD (也就是後來火得逆天的 Ryzen ><) 直到現在 Intel 自家的 CPU 動不動就上個 8 核 16 線程呢 XD 我們這邊姑且先不討論當初 Intel 說因為沒有軟體可以支援那麼多線程所以不必推出那麼多線程的 CPU,還是因為沒有那麼多線程的 CPU 所以軟體商覺得不用推可以使用那麼多線程的軟體,時值今日必須感謝 AMD 在 CPU 上的努力讓整個 CPU 市場兩家互相競爭讓我們這群消費者可以有更多以及更低價格的 CPU 可以選擇!! 筆者曾經看過一個神奇的實驗XD是在有一個對岸 Up 主說拿著如今的威逆天的 AMD TR 3990X CPU (對!就是那顆64核128線程的巨獸XD)跑一個現有 Super Resolution 的軟體時盡然速度上可以比跑在 GTX 1650 上還快XDDD 當初筆者看到也整個參官被刷新XDDD 現在的家用主機 CPU 已經可以在 Deep Learning 上超越一些實驗室內會拿來做實驗的 GPU 了嗎>< 但雖然如此,請也別忽略那顆 CPU 驚人售價 3990 美金!!! 如果對那個神奇的實驗有點興趣可以看看這個連結
然而通常 CPU 在 Deep Learning 不太會是計算的 bottle neck,一般來說 CPU bottle neck 没有那麼大,一張 GPU 對上 2~4 個 CPU core 就好,所以實驗室常常可以看到那種單 GPU 機器配上四核 CPU,土豪一點的插著四張 GTX 1080 TI 機器配個一般二十核 Xeon CPU即可。當我們在訓練 Deep Learning 時,通常只要 Dataloader 那邊去撈資料的速度不會比 GPU 使用完一批資料的速度快就不会影響訓練速度。為此我們只需要一個普通的 CPU 即可,但也不是隨隨便便的一顆 CPU 即可,有一點我們可能是需要去做 Check 的。

PCI-E 支持數


CPU 跟 GPU 之間在數據溝通時正常是走 PCI-E 通道的,越多的 PCI-E 通道分配給一張 GPU 去使用通常可以增快速度。我知道你們可能又要說怎麼又是硬體了QQ沒事沒事我這邊盡量不講複雜的硬體知識,但覆上一個我覺得寫得不錯的介紹文給有興趣的人去參考~
正常來說,目前市面上常見流通顯卡是可以支援使用到 PCI-E 3.0 x16,也就是這張顯卡最多可以使用到 16 條 PCI-E 3.0 的通道,然後假設你今天挑了一張 Intel i9-9820X 的 CPU,這張CPU能提供的 PCI-E 通道數是 44,在只插一張顯卡在主機板上的話,這張顯卡是可以跑滿速的,但如果你今天插到四張顯卡那就只能支持 1張卡用16 + 3張卡各用8 + 最後一張卡用 4 條,也就是只有一張卡可以全速,剩下三卡基本上就是半速含以下,一个 NVMe 固态硬盘。但也不是 CPU 能支援的 PCI-E 數達到了所有卡都可以滿速的數值就好,我們還是需要去 Check 官網的數字,像是下面是 AMD 的 2990WX 所搭配的主機板的數據截圖,雖然 CPU 有 64條 PCI-E,但是通常所對應的 Chipset 等只支持 x16/x8/x16/x8 的四卡配置,也就是最多兩張卡滿速而已,所以建議還是需要去網上查明在做決定。
https://ithelp.ithome.com.tw/upload/images/20200919/20120549HQM19CNggc.png
但筆者的經驗是一般人通常還好,如果你只是一個會插 1~2張顯卡在電腦裡的普通人的的話,那種會去買四卡機器的土豪建議可以直接跟通路商談談,因為四卡機有一個壞處是很容易過熱等導致機器可能要送回去修,另一個選擇就是買刀鋒式的機器,那個也一樣建議去談談,因為後續保養維修蠻麻煩的建議如果是新手不要輕易去碰觸><

主機板


主機板的部分大致上還好,只需要確認兩點即可:
1.請依據你選擇的 CPU 去挑選所對應到的板子,像是腳位、Chipset等,通常這個主機板的官網資訊都會寫說它支援那些 CPU 或者像是 CPU 官網上會說推薦哪張主機板(如下圖)所以別太慌,也可以在跟商家訂貨時請他們幫你確認是否有吻合。
https://ithelp.ithome.com.tw/upload/images/20200919/20120549QZLY168TJj.png
2.如果你是想要插多張顯卡的人,請確定你的主機板上是具有足夠的 PCI-E x16 的插購插你的 GPU 的,同時也請確認這些插槽的距離是大到夠塞下你的 GPU 的而不會撞到 ( P.S 你看看 GTX 3090 那張厚的跟甚麼一樣><


OK 今天只能先打到這QQ,明天一定會把剩下的零件以及組裝等議題講完 >< 我覺得我快富堅了 ><


上一篇
[DAY 03]環境建置 : 硬體(1)
下一篇
[DAY 05]環境建置 : 硬體(3)
系列文
從 Training 到 Deployment : 原來業界 AI 這樣做20
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言